おそらくMicrosoftとの提携でAzure基盤をめちゃくちゃ安く仕入れているのかもしれないな。 複数の推論が必要なコスト高い問い合わせよりも、多様な使い方の前段をサービスに合わせて安く提供した方がAPI契約者が増えるし、コンテキスト必要な問い合わせは、カスタマーサポートみたいな使い方だもんな

@o_ob

平成のチャットボットは思ったことをすぐに口に出す。 GPT-turboはもちろん即答も速いが、ロールを設定してコンテキストを再現することができる。 「口に出す前に、相手の気持ちになって考える」みたいなことができる”出来た人間”みたいなもん。 どうしてこれが1/10の値段にできたのか…が最大の謎

@o_ob